Mardijo sinh ra tại thị trấn Kutoarjo (nay thuộc huyện Purworejo, phía nam tỉnh Trung Java) vào ngày 6 tháng 2 năm 1944. Ông được giáo dục cơ bản tại Kutoarjo cho đến khi tốt nghiệp trung học vào năm 1963. Sau đó, ông đăng ký vào khoa y tại Đại học Diponegoro nhưng sau đó đã bỏ học vào năm 1967 vì gia đình không có tiền để cho ông đi học. Trong giai đoạn còn là sinh viên, ông đã tham gia vào các phong trào điển hình như Phong trào Sinh viên Quốc gia Indonesia (id) và Phong trào Thanh niên Marhaenist. Sau khi bỏ học, Mardijo bắt đầu làm nhân viên bán thiết bị phòng thí nghiệm.[1]